Decoy Direction Optimization: A Post-Hoc Defense Against LLM Abliteration
诱饵方向优化：针对 LLM 消融攻击的事后防御
🧭 LLM 安全 · 权重编辑防御
Carnegie Mellon University
注入高幅非线性诱饵方向扰乱攻击者的消融估计器，低成本后处理防御 RFA
📌 工作参考价值（4 点）
- 若业务部署开源 LLM 做客服/内容审核，担心白盒消融攻击移除安全护栏，可用 DDO 做一次性后处理权重编辑，免去每个新 checkpoint 全量安全微调，优化成本低 30–450 倍。
- 借鉴思路：不隐藏真实拒绝特征，主动注入高幅非线性“诱饵”方向，让攻击者的对比估计失效并消融到无害正交特征，适合保护模型核心能力不被逆向抽取或探测。
- 工程实现只修改 MLP 神经元权重，不改变推理架构、不引入额外 KV cache 或算子，便于接入现有推理管线，风险低。
- 对推荐/Agent 场景，若部署专有策略模型，可利用“注入伪特征”增加黑盒探测成本，类似对抗防御思路保护知识产权。